Halder dilahirkan di Würzburg, anak kepada Jeneral Max Halder. Pada tahun 1902, beliau menyertai Rejimen Ke-3 Artileri Diraja Bavaria di Munich. Beliau telah dinaikkan pangkat ke Leftenan pada tahun 1904, setelah tamat pengajian dari Sekolah Tentera di Munich, beliau kemudian menghadiri Sekolah Artileri (1906-1907) dan Maktab Turus Bavaria (Akademi Perang) (1911-1914), kedua-duanya di Munich.